诸子云 | 走进央视网：内容安全不简单

诸子云 ▪ 企业网络安全专家联盟——以中国境内各行业各领域企业组织的网络安全从业骨干为主体的社群组织，是为奋战在用户单位网络安全一线的实践者提供的交流互助平台。

今年，内容安全成为了引起整个互联网行业重视的重要问题。多家互联网企业被有关部门约谈，大小内容平台被要求整改，诸多内容APP也被相继曝出安全事件——轻则停更整顿，重则下架关停。

毫无疑问的是，内容安全已然上升到了非常重要的层面。无论是从监管频率、监管力度还是监管范围来看，是否具备内容安全、内容安全防控能力的强弱，已经变成了影响一家互联网企业健康发展的重要指标。

但与传统网络信息安全在国内已有20多年的发展积累不同，内容安全无论是理论积累还是产品研发都有所不足。这也使得互联网企业在内容安全上缺乏最佳实践的支撑，整个产业还处在摸着石头过河的探索阶段。

随着国家对于营造互联网清朗环境决心的不断增强，做好内容安全已经成为眼下部分互联网企业的重中之重。

如何做好内容安全？互联网企业在内容安全上有哪些经验积累和心得体会？带着这样的疑问，12月14日，安在新媒体联合央视网共同举办了“诸子云——走进央视网”系列专题活动，希望通过专家会员之间的经验交流、互通有无，更好地围绕内容安全探讨出有价值的观点。

本次活动有幸邀请到中原银行、泰康资产、中投公司、人民银行、泰康保险集团、启明星辰、光大科技、科蓝软件、长安责任保险、山东国数爱健康、全球能源互联网研究院、中国银行、国网电商、腾讯科技、云丁科技、国家信息技术安全研究中心、中国日报网、最右、网易、中国联通网络技术研究院以及小川科技等企业安全专家、安全部门负责人和技术骨干的参与。

诸多大咖一起，共同聚焦内容安全和数据安全，进行了一次干货满满的分享、交流与讨论。

活动开场，央视网技术运维中心副总监程明作为“东道主”，对专家同仁们的到来表示非常高兴和欢迎，并希望今后可以有更多的机会让更多的行业专家聚集到一起，共同探讨网络安全和内容安全的解决思路。

随后，央视网网络安全部副总监黄乐、网易高级安全经理尹红梅，分别以《央视网内容安全体系建设》和《数据安全和隐私保护实践》为主题进行了分享。

议题分享央视网网络安全部副总监 黄乐央视网内容安全体系建设

内容安全的威胁来源主要分为外部和内部两个方面。外部威胁包括劫持和入侵，内部威胁在于恶意发布和宣传把控。随着近年来由于人为原因导致内容安全事件的发生，越来越多的企业也将视角从外部攻防对抗向内部监管转变。

作为最早关注内容安全的企业之一，央视网从2015年就开始对市场上的商业网页防篡改产品展开了调研，但结果不尽如人意：市面上的产品无法判断网页到底属于修改还是篡改，缺乏实效性，同时也无法解决分布式问题。因此，央视网开始自建内容安全解决方案。

央视网提出内容安全的整体方案，包括内容比对、发布系统保护、内容分析、辅助审核以及安全发布五个模块。

首先是“内容比对”，将发布数据与用户数据进行对比，如果发现异常情况将立即报警。

但这当中存在两个问题：一是时差问题，针对动态的内容无法全面比对；而是发布问题，如果内容存在编辑错误，那么即使再怎么比对也无法发现问题。

因此，央视网提出了第二点：发布保护。对发布系统的保护基本涵盖了传统网络安全涉及的所有内容，除了攻防级的一系列防护手段之外，还需要各类审发流程、意识培训等工作作为保障。

第三，内容分析。针对图片、文字和视频制定判断策略，无论任何环节出现问题，只要与策略不匹配，就会立即查出。

第四，辅助审核。内容安全离不开人工审核，机器审核完成不了的部分必须由人工予以弥补。目前来看，只有达到内部预定的准确率以后，才能够进入第二阶段。

最后，安全发布。由于部分攻击者在获取内部权限后，选择跳过发布系统由传输系统切入，因此单纯针对发布端的防护是十分局限的。

内容安全当中最难的地方在于对涉政信息的审核，因为有关涉政信息的规则是时刻变化的，这就考验企业制定策略的能力以及反应速度。

在黄乐看来，这本质上其实是规则的积累：一是通过与内容生产者进行沟通，央视网在这方面具备得天独厚的优势，例如编辑、记者，从内容生产者的思维中总结敏感信息的规则；二是依靠时间积累，将规则逐渐完善。

最后，央视网还计划制作知识图谱。因为中华文化博大精深，同一句话在不同的语境下可能隐含不同的意思，在不同的时代背景下也会产生截然相反的解读。央视网将从知识谱图进行展开，以积累存量和叠加增量两种方式让内容安全得以更好地防控。

网易高级安全经理 尹红梅数据安全和隐私保护实践

据不完全统计，过去一年，在国际范围内共发生了59起知名的数据泄露事件。相比较国际上对于数据安全的重视，国内的数据安全其实还处在一个相对起步的状态，各行各业的数据也时刻面临泄露的威胁。

而在数据泄露事件中，个人信息泄露的占比最多，数据量也最大，主要原因还是在于人们安全意识的缺失，包括弱密码、钓鱼邮件、Github泄露等就是安全意识缺乏的主要表现。

同时，外部的黑客攻击也是威胁数据安全的另一大危机来源。包括系统漏洞、恶意爬虫、暴力破解、脱库撞库以及注入攻击等；内部的接口滥用、审计缺乏还有流程规范缺失，也是导致数据安全事件的问题所在。

随着近年来监管重视的不断提升，监管力度的不断加大，保护数据安全已经成为保证企业顺利发展的重要指标。

仅在今年一年，国家就在个人信息保护方面做出了如此之多的工作。针对很多企业以及APP，监管机构也开展了多次专项治理活动。监管对于个人信息保护的要求越来越严格，甚至隐隐有些扼住了业务的喉咙。

如何保证合规与业务之间的平衡，在不影响业务正常运转的前提下做好数据安全，成了许多企业眼下最大的难题。同时，数据碎片化、攻防不对等、信息不对称、移动化办公以及APT攻击等，也都给数据安全带来了巨大挑战。

因此，网易提出了数据全生命周期安全的理念，分别从数据产生、存储、处理、使用、传输、共享和销毁等多个环节对数据进行保护。

目前来说，数据的分类分级十分重要，因为通过对数据进行级别的划分，可以有效帮助企业采取针对性的保护措施，提高数据安全的防护效率。

在防护手段上，网易遵循的是“进不来、拿不走、用不了、逃不掉”的方针，通过人员安全以及安全流程和制度予以保障。

首先是进不来、拿不走。在敏感数据发现、数据流向识别以及智能分类分级等方面，网易目前主要与第三方软件进行合作。而通过在业务网关上加载安全网关，整合网易安全内部的各个系统，则可以更好地发现数据威胁。

其次是用不了。网易目前通过变形、转换和混淆几种方法，针对数据进行脱敏。同时对数据加解密，让不法分子无法使用数据。

而当事件发生后，必须进行全面的溯源，找出问题产生的环节，定位到具体的人和事件，同时与法务部门合作，必要时刻，走法律程序。

总而言之，要以前、中、后三个时期协力，共同保护数据全生命周期安全，让不法分子进不来、拿不走、用不了更跳不掉。

结尾

随着嘉宾们分享的结束，“诸子云——走进央视网”专题活动，也在大家热烈的讨论和思维碰撞中画上了句号。

最后，诸子云发起人之一、安在CEO张耀疆再次对本次活动进行了总结。

他说，通过过去一年诸子云不断举行的各类项目和活动，已经在推动网络安全产业的发展上初见成效。这当中离不开每一位专家会员们的踊跃发声和鼎力支持，也希望未来能有更多的业界同仁参与到诸子云集体中来。

在明年，诸子云还会继续开展各类活动和项目，发布更具深度、细分领域更多、覆盖面更广的安全产品调查报告，汇聚甲方用户们的真实使用心得和经验教训，为更多的企业用户提供有价值的参考。

同时，他也希望每一名专家会员能够更加积极地参与到各类活动当中，围绕自己感兴趣的话题，组织线下活动。用更灵活的方式促成甲方安全从业者的团结和凝聚，继续为推动国内网络安全产业发展添砖加瓦。

活动花絮

诸子云活动回顾

如何加入诸子云

诸子云已然来了，

目前已在上海、北京、武汉、深圳等地设立本地机构，可有心动？

心动不如行动，赶快联系我们，诸子云欢迎您！

申请加入诸子云

长按二维码识别联系安在君

点【在看】的人最好看